A Inteligência Artificial não implica apenas grandes avanços. Ela implica também o aprofundamento das desigualdades e dos preconceitos de gênero e o risco de que, no futuro, uma grande proporção de mulheres fique fora do mercado de trabalho. É o que alerta a advogada Eleonora Lamm, doutora em Bioética e Direito, responsável pelo setor de ciências sociais e humanas da UNESCO para a América Latina e o Caribe. “As Nações Unidas preveem que as mulheres perderão 5 empregos a cada emprego conquistado através da Indústria 4.0, em comparação com a perda de 3 a cada emprego conquistado entre os homens”, alerta Lamm. E jogue fora mais dados: um estudo de 133 sistemas de Inteligência Artificial implantados em diferentes setores econômicos entre 1988 e 2021 revelou que 44% apresentavam preconceitos de gênero e 26%, tanto preconceitos de gênero como raciais.
“A agência de aplicação da lei da IA da União Europeia prevê que até 90% do conteúdo da internet poderá ser criado ou editado pela IA até 2026, o que significa que o impacto do preconceito na IA não crescerá mais”, salienta. Ao mesmo tempo, a presença de mulheres na área da IA é minoritária. Globalmente, apenas 22% dos profissionais de IA são mulheres, contrastando ainda mais com os quase 14% de autoras na área de IA e os 18% que ocupam cargos de palestrantes em conferências de IA. Esse rumo pode ser mudado ou já é inevitável?
Eleonora Lamm (Foto: Fundacion Mujeres x Mujeres)
A desigualdade de gênero é replicada no mundo da IA. Os dados são convincentes. O relatório do Instituto Alan Turing, “Onde estão as mulheres?”, destaca que apenas 10 a 15% dos investigadores de aprendizagem automática nas principais empresas tecnológicas são mulheres. Este desequilíbrio estende-se ao mercado de trabalho, onde os recrutadores de empresas tecnológicas no Vale do Silício relatam que o conjunto de candidatos a cargos técnicos em IA e ciência de dados inclui frequentemente menos de 1% de mulheres, diz Lamm, especialista em ética e IA.
A entrevista é de Mariana Carbajal, publicada por Página|12 em 03-04-2024.
Dado que a IA já desempenha um papel crucial em diferentes aspectos da nossa vida quotidiana, com uma influência que se espera que aumente no futuro, é importante analisar mais detalhadamente a forma como os preconceitos na IA podem influenciar e exacerbar as desigualdades de gênero. Que exemplos específicos você pode mencionar?
A principal preocupação é o risco de a IA poder perpetuar ou mesmo amplificar os preconceitos e as disparidades de gênero, prejudicando o progresso na igualdade de gênero. Os sistemas de IA aprendem com dados históricos, que podem refletir e perpetuar preconceitos sociais existentes. Por exemplo, se os dados históricos de contratação mostram preconceitos de gênero nos processos de seleção, uma ferramenta de recrutamento alimentada por IA e treinada com base nestes dados pode perpetuar esses preconceitos, recomendando candidatos com base em critérios tendenciosos.
Isso já aconteceu, por exemplo, na Amazon. Os algoritmos podem codificar e amplificar inadvertidamente preconceitos presentes nos dados usados para treiná-los ou nas suposições conscientes ou inconscientes dos desenvolvedores. Por exemplo, um estudo descobriu que modelos linguísticos alimentados por IA treinados em grandes conjuntos de dados da internet podem mostrar preconceitos de gênero na sua geração linguística, muitas vezes associando certas profissões ou funções a gêneros específicos. A sub-representação das mulheres e de outros grupos marginalizados na indústria tecnológica pode levar a preconceitos no desenvolvimento da IA.
As equipes que não têm diversidade podem ignorar ou não abordar adequadamente as preocupações de gênero nos sistemas de IA, perpetuando inadvertidamente preconceitos. Uma plataforma de publicidade alimentada por IA pode mostrar desproporcionalmente anúncios de emprego para cargos com altos salários a utilizadores do sexo masculino com base em tendências históricas – ou linguagem codificada masculina – perpetuando assim o estereótipo de que certas profissões são específicas de gênero. Da mesma forma, robôs de IA e assistentes de voz costumam ser lançados com vozes femininas por padrão, reforçando o preconceito de que o serviço é um recurso feminino.
Que fatores influenciam a reprodução destes preconceitos de gênero?
O preconceito de sexo e gênero é encontrado nos dados com os quais o algoritmo é concebido ou com os quais o programa aprende. A questão é como evitar que este preconceito apareça e, se aparecer, como eliminá-lo. As soluções possíveis advêm essencialmente da própria tecnologia, mas mais profundamente das mudanças culturais que se tornam fundamentais e que inevitavelmente têm impacto na tecnologia.
Agora, a partir da ética da IA também pode e deve contribuir. Por fim, na medida em que o desenho e a aplicação de um sistema baseado em IA ocorrem dentro de um sistema jurídico, o sistema jurídico pode estabelecer medidas aplicáveis ao longo da vida do sistema, bem como adotar uma série de consequências no caso da existência de situações discriminatórias derivadas da existência de preconceito de sexo e gênero devido aos dados com os quais o sistema de IA é tratado.
Como poderiam ser evitados ou eliminados?
A resposta a estes riscos exige medidas proativas, como conjuntos de dados diversos e representativos, transparência e responsabilização algorítmica, equipes diversificadas no desenvolvimento da IA e monitorização e avaliação contínuas dos sistemas de IA quanto a preconceitos. Estes aspectos estão incluídos no capítulo de gênero da Recomendação da UNESCO sobre a Ética da IA, lançada em novembro de 2021, juntamente com um esboço claro de valores e princípios que acompanham as diferentes áreas de ação política. O objetivo desta recomendação é fornecer orientação aos países para responderem aos impactos atuais e potenciais, benéficos e prejudiciais, das diversas aplicações das tecnologias de IA.
Quais são os riscos?
A IA cria o risco de ter um impacto negativo no empoderamento econômico das mulheres, nas diversidades sexuais e de gênero e nas oportunidades do mercado de trabalho, ao conduzir à automatização do trabalho. Uma investigação recente do Fundo Monetário Internacional e do Women's Policy Research Institute concluiu que as mulheres correm um risco significativamente maior de despedimento devido à automatização do trabalho em comparação com os homens.
À medida que mais empregos pouco qualificados são automatizados, ter um nível mais elevado de educação e competências será cada vez mais procurado no mercado de trabalho. A ONU prevê que as mulheres perderão 5 empregos a cada emprego ganho através da Indústria 4.0, em comparação com os homens, que perderão 3 empregos a cada emprego ganho. De acordo com um estudo colaborativo de 29 programas das Nações Unidas, metade dos empregos atuais desaparecerão até 2050.
Por outras palavras, mais de 60% das crianças que ingressam hoje na escola primária poderão acabar por trabalhar em empregos que ainda não existem. Portanto, é essencial que as mulheres e as diversidades sexuais e de gênero não sejam deixadas para trás em termos de novas estratégias de formação para mitigar o impacto da automação na perda de empregos. Nos países latino-americanos, a entrada das mulheres no mercado de trabalho foi um dos fatores mais importantes para o crescimento do emprego nas últimas décadas.
A falta de participação feminina no setor produtivo está literalmente a custar dinheiro às economias da região: a redução desta disparidade de gênero aumentaria o PIB dos países da América Latina e do Caribe em 4%.
Infelizmente, as mulheres ainda escolhem menos carreiras relacionadas com ciência, tecnologia, engenharia e matemática...
Assim é. Além disso, os dados disponíveis mostram que as mulheres fazem uma utilização mais limitada dos dispositivos digitais e da internet, incluindo a participação na gig economy. Este atraso nas competências digitais limita a sua capacidade de obter os benefícios que esta tecnologia oferece. Para realizar com sucesso as transições necessárias para a força de trabalho do futuro, as mulheres e as diversidades sexuais e de gênero precisam de adquirir aptidões e competências tecnológicas adequadas.
É vital que tenham mais influência na criação e utilização da tecnologia. Só desta forma poderemos contribuir para a criação de um futuro igualitário que aborde as preocupações sobre os preconceitos de gênero que se insinuam nas novas tecnologias, por exemplo na concepção de algoritmos de IA.
Você está otimista… ou acha que a IA aprofundará as desigualdades de gênero?
Quero ser otimista em relação à IA, porque sou otimista em relação à vida. Mas estou ciente de que este otimismo depende do quão éticos e responsáveis forem o desenvolvimento e a utilização da IA. Tenho muitos exemplos de boas práticas: a IA pode ajudar a combater o assédio sexual. A empresa de IA NexLP desenvolveu #MeTooBots, que monitora as comunicações entre colegas e detecta bullying e assédio sexual em documentos, e-mails e chats.
A IA pode ajudar na saúde sexual e reprodutiva, como o Bloomlife, que fornece informações médicas valiosas durante o parto. Ou para abordar as desigualdades de gênero, como a Ellevest, que oferece uma plataforma de investimento online concebida por mulheres para mulheres, para combater o analfabetismo financeiro e ajudar a colmatar a disparidade de investimento de gênero.
Globalmente, aproveitar as tecnologias de IA para promover os direitos das mulheres e melhorar o seu acesso às oportunidades requer uma abordagem proativa e holística ao desenvolvimento e implantação da IA que dê prioridade à inclusão, à igualdade de gênero, à responsabilização, à transparência, ao respeito pelos direitos humanos, integrada na concepção e utilização éticas.